When LLMs Forget What They Believe: Characterizing State Integrity Collapse in Long-Horizon Dialogues
LLM 忘记所信：长程对话中的状态完整性崩塌表征
🧭 长对话状态完整性评估与缓解
School of Artificial Intelligence, Shenzhen University
定义状态完整性崩塌，用 StateTrack-Bench 揭示长对话中模型“记得但不执行”约束的失败模式，并验证结构化锚定可部分恢复
📌 工作参考价值（4 点）
- 在对话式推荐/客服 Agent 中，用户偏好、预算、格式或业务规则常在多轮对话中设定；不能只测单轮遵循，要构建类似 StateTrack 的“约束保持”回归集，监控长 session 下 recall 与 compliance 是否解耦。
- 将关键状态用结构化锚点注入每轮上下文（如 system state block / 结构化 memory），实验显示可恢复最多 24.4 点；可在电商 Agent 中用类似“状态锚定”方式（固定摘要或 key-value constraints）防止行为漂移。
- 区分“忘记”和“记得但不做”很重要：排查线上 case 时，如果模型能复述约束却违反，补 RAG/摘要可能无效，需要改进推理或加显式约束检查。
- 对多轮推荐/搜索场景，格式约束（如输出 JSON、候选 ID 格式）容易发生 symbolic degradation，考虑后处理校验或每轮显式重申约束。